AIGC 浪潮下，企业探索大模型落地和效能提升

作者 | 李忠良

5 月 26 日，QCon 全球开发者大会（广州站）顺利落地，在现场，InfoQ 特别策划了五场闭门会，主题分别为《企业在 LLM、AIGC 浪潮下的研发探索》《DevOps vs 平台工程，必要性和 ROI 探讨》《破解成本优化后的稳定性问题》《业务出海之架构、合规、运营》《金融行业数据治理经验分享》，本文为《企业在 LLM、AIGC 浪潮下的研发探索》研讨纪要整理。

参与嘉宾：（排名不分先后）

主持人：杨攀 极客邦科技副总裁、TGO 鲲鹏会总经理

Yolanda，InfoQ 极客传媒总经理

尹会生，珠海太乙人工智能技术合伙人 

刘熙，科大讯飞 架构师 

Eddie lee，渣打银行 Chief Architect 

杜玉杰，开放城市共同体发起人、天使投资人 

张晗，阳光保险科技研究院副院长 

李阳，海松资本 

快刀，得到 CTO 

杜瑞罡，广发证券研发总监 

江南白衣，唯品会资深架构师 

李翔，惟客数据 AI 算法专家 

汤海涛，麦当劳中国 / 数字化副总裁

研讨话题：

你的企业有在探索 LLM、AIGC 落地吗？目前是什么阶段了？在落地的过程中，有什么难点？目前 LLM、AIGC 真的帮你提效了吗？

精彩观点

快刀：现在 AI 非常火，许多团队预期非常高，我们应该适当降低预期。我们曾做过一个项目，失败了，那个时候机器理解无法作到像现在这样智能。目前在得到，通过大模型的使用可以提升电子书上架效率，原来 10 个人，每天仅仅能够上线 200 本书，现在一天可以上线 1 万本书，自动化测试可以每天测 5000 本书。他提到内部提效的东西相对较为容易可以做出来。

张晗：小创新大厂赢，大创新小厂赢，AIGC 类型的革命性创新，对于小厂来说是巨大的机会，阳光保险的董事长对于 AIGC 比较焦虑，推动大家认识大模型的能力。不过，他也表示像销售的对话这类数据，无法提供到大模型的，这会涉及到数据安全问题，所以必须自研。但是现在的显卡非常紧俏，必须提前储备。目前公司 AIGC 实践正在做一个传统销售的机器人，投产开发到第二期了。

Eddie lee：银行还是一个比较高度监管的环境，所以我们这边也不敢说随便就上 AIGC，在集团里边，我们也会有很多不同的监管机构，像英国的监管机构，香港监管局，包括新加坡那边看 AI 也看得蛮紧的。另外之前大家看很多笑话就说 ChatGPT 可能有一些就是歧视的成分在里面，这我们肯定要选的时候肯定需要小心，特别是对客人的时候会不会有一些歧视的成分，会不会对长者有一些偏见等等，目前正在小范围探索。

汤海涛：麦当劳与互联网公司不同，我们的技术团队既充当与外部供应商的甲方沟通的角色，又以乙方身份与内部同事和业务部门交流。我们尚未看到 AI 如何能够直接促进订单增长或提高客单价。然而，我们正在努力尝试一些内部方案，例如建立统一的知识库解决文档管理问题，并希望通过 AI 助理为员工提供支持，解答问题和提供培训。此外，AI 助理还可以帮助员工管理日程安排和会议安排。我们需要解决老板和一线员工的痛点，以获得他们对 AI 工具开发和应用的支持和投资。我们还在探索如何在 B 端内部提高效能，包括建立知识库和提供个人助理功能，以解决员工面临的问题。

尹会生：我们公司太乙正在开发具备三头六臂的机器人，涉及机械臂技术。为了实现高精度控制，我们选择了生成网络（如 GAN）而非大型语言模型。现代的 6 轴或 7 轴机械臂可以达到 0.5 毫米的精度，而 7 轴机械臂可以接近 0.001 毫米的极限。这种高精度意味着机械臂能够平稳地滑动一个立方体，不留任何缝隙。

我们正致力于逐步将精度提高到 0.01 毫米，但在过程中遇到了问题。自研机械臂需要调整大量参数，例如大臂的微小抖动会导致小臂产生较大位移。为解决这个问题，我们尝试使用虚幻引擎。选择虚幻引擎的原因是我们自行研发整个电机和驱动程序，而现有软件缺乏与物联网接口的兼容性。虚幻引擎能够构建更丰富的接口解决方案，相较于成型的试校软件更适用于我们的需求。

我们的尝试是使用生成模型生成简单的机器人动作，并根据调整后的参数在负载下测试精度。我们不断尝试，例如通过将机器人放入计算机中进行加倍运行，来模拟长时间的实际使用情况，提效相当明显。

Yolanda：实际上，早在 2017 年，大型模型的概念就已经存在，并且许多企业已经在积极开展相关工作。在这个探索过程中，我们可以看到，尤其是在企业级场景中，像华为的盘古大模型已经深入应用，只是他们并没有对外公开市场开拓的情况。他们在领域预测方面取得了显著进展，例如在台风预测领域，他们使用欧洲气象局的数据进行了多年的内部训练，其准确度已经远高于三年前的欧洲气象局数据。同样，在铁路局领域也有类似的情况。华为盘古大模型与郑州铁路局合作多年，在货运方面不断进行自我训练，有效解决了火车运行中可能出现的各种问题，从而降低了人力成本和精力投入。

李阳：最近投资领域热议大模型和语言模型，但主要集中在美元机构，国内反应较少。投资大模型主要机会在百度、阿里、华为等巨头，其他机构比较难进入。我们关注垂直应用和高级模型，但存在风险，过去 AI 应用故事多，落地和盈利稳定性不高。现在大模型可能在吸引中游和尾部的投资机构，排名前 20 机构对此不太买账。

杜瑞罡：我们早已对大模型表示关注，在 2021 年，广发与盘古合作开发财务造假识别模型，取得了出色的效果。这引发了我们对大模型应用的兴趣。我们计划按照几个步骤进行探索和实施，首先是调研阶段，我们正在进行大量的调研工作，包括投行领域的文档生成和新招股说明书、撰写的资产报告等。在此过程中，我们还在同时调研国内各大厂商的模型，虽然我们目前没有训练模型的能力，但我们计划进行合作共建，先引入现有模型，然后利用我们现有的数据将金融领域的知识注入其中，以打造一个真正能够成为行业基础的模型。

我们的计划分为两步，首先是赋能阶段，通过取代那些不需要创造新脑力劳动的工作来推动数字化转型。我们拥有数千名线下员工，许多工作可以逐步被替代。我们正在推动头部知识产权和内容产出，尽管目前产出速度较慢，但通过提供工具和审核支持，我们相信可以大幅提高产出效率。此外，我们在营销方面也做了改进，通过上平台，我们可以丰富活动内容并加快速度；赋能之后是替代，未来我们计划在研发方面减少外包合作，并将更多精力投入到高价值的关系维护上，以提高效率。

哪些职业会被替代？

杨攀：在 2 月份的时候，我与江浙地区的一家公司进行了沟通，他们所从事的行业即将彻底被替代。这个行业是金华地区的一个小生意，每年圣诞节卖掉的圣诞树上挂的球约值 5 亿美元。这个行业主要依赖插画师，但插画师的生产不稳定，而且依赖于特定风格的人。这个行业的特点非常明显，很容易被人工智能图像生成和设计工具所取代。

我们仔细分析为什么这个工作能够被完全替代，原因在于它不需要精确的输入对应精确的输出，而是需要经验来产生结果。我们需要对这份工作的属性进行分析，看是否存在需要经验产出的精确输入，这类工作可以被完全替代。另一方面，微软正在采取的策略是通过 Copilot 来实现一切事物的辅助。副驾驶的概念就是一个人处理个人租车事务的助手，至少从微软的定义来看，这个阶段的目标就可以实现。我们不需要完全替代谁，而是可以赋予他们能力。

快刀：最近我们公司也在大量尝试使用 AI 进行绘画。在内部群组中，可以明显看到两种观点：设计师努力证明自己有价值，其他人则努力证明设计师没有用处。以前一个公司需要 100 个设计师，现在可能只需要 5 个。未来肯定是普通级别的设计师会被替代，各种插画师也会被取代。但顶尖设计师的地位稳固、稀缺。举个例子，上个月我一直找不到符合我要求的设计风格的设计师。我向朋友描述后，他给了一个艺术词汇，称其为哥特风格。我就是想要这种风格。他问我：你觉得 AI 能取代我吗？他说这种风格是他在教堂看到的。

活动推荐：

2023 年 9 月 3 - 5 日，在北京·富力万丽酒店， QCon 全球软件开发大会（北京站）已开启，现已开启售票，提前订票，可享受 7 折早鸟价，购票参会可以直接电话 / 微信联系票务经理 18514549229。

---

- EDN -

欢迎添加小助手进群，我们将为您推送更多数字化内容和活动信息。

关注「InfoQ 数字化经纬」的朋友们，为了让我们能保持联络，希望大家尽量 🌟星标🌟这个公众号，否则很容易就看不到推送啦～